不同的参数也需要不同的学习率（而不是固定不变的）：如果在某一个方向上梯度值很小（非常平坦），我们会希望学习率调大一点；MGBD需要随着时间的推移逐渐降低学习率：在梯度下降初期，能接受较大的步长（学习率），以较快的速...

浏览 67 次 标签： 【Datawhale X 李宏毅苹果书 AI夏令营】Task1笔记